Ông gia nhập Đảng Cộng sản Việt Nam vào ngày 6/5/1983.

Ông từng là đại biểu hội đồng nhân dân huyện Mù Cang Chải, khóa XV, XVI; hội đồng nhân dân tỉnh Yên Bái khóa XIV, XVI.

Ông từng là đại biểu Quốc hội Việt Nam khóa XII (2007-2011)[3] và khóa XIII (2011-2016) tỉnh Yên Bái[4].

Khi ứng cử đại biểu Quốc hội Việt Nam khóa XIV vào tháng 5 năm 2016 ông đang là Phó Chủ tịch Hội đồng Dân tộc của Quốc hội, làm việc ở Hội đồng Dân tộc của Quốc hội.

Ông đã trúng cử đại biểu quốc hội năm 2016 ở đơn vị bầu cử số 1, tỉnh Yên Bái gồm thành phố Yên Bái và các huyện: Yên Bình, Trấn Yên, Lục Yên, được 260.532 phiếu, đạt tỷ lệ 88,66% số phiếu hợp lệ.

Ông hiện là Phó Chủ tịch Hội đồng Dân tộc của Quốc hội, Chủ tịch nhóm nghị sĩ hữu nghị Việt Nam - Maroc (Đại biểu chuyên trách: Trung ương).

Ông đang làm việc ở Hội đồng Dân tộc của Quốc hội.